AI Papers Daily

#production deployment

2 篇

Don't Offer What Can't Be Done: Deterministic Executability Gating for LLM Skill Selection at Scale

不做能力之外的事：LLM技能选择的确定性执行门控

🧭 Agent 技能路由 · 确定性执行门控 ★ 深度解读

Wix

在LLM技能路由中，用技能内部退出条件做确定性过滤，避免推荐不可执行的技能，节省59%的上下文token并减少7.8%的错误选择

📌 工作参考价值（4 点）

• 在LLM工具选择/技能路由pipeline中，将语义相关性与执行可行性解耦：先用recall-oriented的语义检索召回复候选，再通过确定性代码检查业务状态（如用户权限、账户配置）过滤不可执行的技能，可大幅减少prompt中技能描述token（本案例减少59.1%）并降低模型选择不可用操作的风险。
• 门控谓词应直接复用技能内部的退出条件（exit conditions），通过工程手段保持与技能逻辑的parity，而非训练一个分类器；这样在谓词等价且状态一致的前提下，过滤掉的技能必定无法成功执行，可避免“虚假过滤”。
• 需建立谓词生命周期维护机制：当技能逻辑变更时，同步更新门控谓词，并用回归测试确保parity；监控门控决策与实际执行结果的一致性，防止谓词漂移或状态陈旧导致过block或漏block。
• 对电商/推荐Agent（如导购助手、客服），可将此思路应用于过滤不可操作的商品/服务（如缺货、无权限、不满足优惠条件），避免LLM生成无法兑现的推荐，提升信任度和任务完成率。

Agent | 2026-08-02 | cs.AI | score 8/10

LLM agenttool selectiondeterministic gatingexecutabilityskill routingproduction deployment

CoRe: A Continuously Reward-Finetuned LLM Query Rewriter for Multi-Stage Context-Aware Relevance in Web-Scale Video Search

CoRe：面向短视频搜索的持续奖励微调 LLM 查询重写器

🧭 LLM 查询重写 · 持续偏好优化 ★ 深度解读

ByteDance / TikTok

以线上多模态相关性模型为奖励源、乘性奖励对齐排序融合，结合半在线 MPO 与稳定性门控实现每周持续重写

📌 工作参考价值（4 点）

• 奖励设计对齐线上融合公式：乘法形式的奖励 \(r_{\text{base}} = (S_{\text{pos}}^{1+\gamma} / S_{\text{neg}}) \cdot (S_{\text{pos}} / S_{\text{rand}})^{\alpha_R}\) 直接镜像了线上排序的融合代数，避免训练-线上信号不一致。在电商搜索中，可将精排模型的分数组合方式直接写进 reward，让查询重写或生成式召回的训练梯度与线上排序目标保持一致。
• 半在线 MPO 降低大模型迭代成本：每阶段只采样一次并仅对 top-k vs bottom-k 偏好对计算梯度，将参数同步和 reward 调用批量化到阶段边界。对于需要高频迭代但推理成本高的多智能体或 LLM 组件，这种梯度节约和调度解耦可直接复用。
• 双族指标自动晋升门控：用奖励类指标 (rmain, Spos, rrand) 和稳定性指标 (熵、perplexity、长度、截断率) 联合判断候选模型。在 Agent 或多步推理的强化学习任务中，补充稳定性指标可提前捕捉模式坍塌或奖励黑客，已证明比纯奖励门控更可靠。
• 增量并行路径消费，控制爆炸半径：重写信号作为 recall、rawrank、finerank 各阶段的附加特征，失败时自动降级到原始链路。为在推荐/搜索系统里引入 LLM 组件提供了安全落地模式——先叠加再逐步替代，避免一次性切换风险。

QueryRec | 2026-06-12 | cs.IR | score 10/10

query rewritingpreference optimizationsemi-online RLLLMproduction deploymentreward alignment